Từ tháng 3 năm 1967, ông cùng Trung đoàn 174 được điều động vào Nam tham chiến tại Chiến trường Tây Nguyên, trở thành nòng cốt để thành lập Sư đoàn 1, Quân Giải phóng miền Nam Việt Nam. Tháng 7 năm 1968, ông chỉ huy trung đoàn tham gia đợt 3 tổng tiến công tại chiến trường Tây Ninh - Dầu Tiếng. Tháng 10 năm 1968, trung đoàn hành quân về Phước Long củng cố và được biên chế vào đội hình của Sư đoàn 5, Quân Giải phóng miền Nam Việt Nam, vẫn do ông làm Trung đoàn trưởng, rồi Sư đoàn phó Sư đoàn 5.

Đầu năm 1972, ông được bổ nhiệm làm Sư đoàn trưởng Sư đoàn 7, Quân Giải phóng miền Nam Việt Nam, chỉ huy sư đoàn tham gia Chiến dịch Nguyễn Huệ

Tháng 10 năm 1973, ông được điều trở ra Bắc, làm Sư đoàn trưởng Sư đoàn 316 với hàm Thượng tá. Ông được thăng hàm Đại tá chỉ 1 năm sau đó.

Đầu năm 1975, ông và ông Nguyễn Hải Bằng (quyền sư đoàn trưởng sư đoàn 316) chỉ huy Sư đoàn 316 bí mật hành quân bằng xe cơ giới vào chiến trường Tây Nguyên, làm mũi chủ công tấn công Buôn Mê Thuột, mở màn Chiến dịch Tây Nguyên.

Trong Chiến dịch Hồ Chí Minh, ông chỉ huy sư đoàn phụ trách mũi tấn công Trảng Bàng, Củ Chi, chiến đấu trong đội hình của Quân đoàn 3, Quân đội Nhân dân Việt Nam.

Tháng 7 năm 1976, ông được phân công làm Phó hiệu trưởng quân sự Trường Sĩ quan Chính trị.